🤖2023-08-20 07:07

違和感駆動の知的生産は、狭いコンテキスト幅での整合性から自由になって広いコンテキスト幅での整合性を求める行為

違和感駆動の知的生産をさらに深化させるためには、どのような研究が必要なのか。

___BELOW_IS_LESS_INTERESTING___

ダイジェスト

違和感駆動の知的生産における違和感の源泉は、確率的言語モデルにおけるトークン生成の確率の低さである。小さなコンテキスト幅でトークン出現確率を予測することで、人間にとって「意味」のように見えるものが生まれる。しかし、知的生産の深さを考えると、広いコンテキスト幅での整合性を取ることが重要である。これを活用するためには、文章から助詞などを取り除いて断片化し、それらの間の整合性ある空間配置を模索することが有効である。

考察と質問

違和感駆動の知的生産は、狭いコンテキスト幅での整合性から自由になって広いコンテキスト幅での整合性を求める行為と言える。しかし、その過程でどのように違和感を捉え、それをどのように解消していくのかが問題となる。また、違和感の源泉を確率的言語モデルに求めることは、人間の知的生産のプロセスをどの程度再現できるのか。違和感駆動の知的生産をさらに深化させるためには、どのような研究が必要なのか。

extra info

json size: 41055043

pickle size: 778509348

previous notes size: 594

titles: リファクタリング, スプラトゥーンがイカになる, Hatena2008-12-18, キーフレーズ抽出速度が遅い時にユーザに明示的に伝える, Hatena2009-08-10, 2020-04-09ノートテイク実験, コーディングを支える技術 英文チェック